home *** CD-ROM | disk | FTP | other *** search
/ The 640 MEG Shareware Studio 2 / The 640 Meg Shareware Studio CD-ROM Volume II (Data Express)(1993).ISO / clang / mrcry204.zip / CANCEL.EKA < prev    next >
Text File  |  1991-03-04  |  559b  |  15 lines
  1. ; Some extremely badly conditioned problems.
  2. ; These cannot be solved accurately without using higher precision
  3. ; than what Mercury uses.
  4.  
  5. ; Mercury fails, but at least it doesn't give wrong answers.
  6. ; Reference: U. W. Kulisch, W. L. Miranker, SIAM Review (March 1986).
  7.  
  8. ; The true answer is a = 12345678912345,
  9. ; but an enormous cancellation makes it difficult to calculate.
  10.  a = 12345678912345*9876543219876 - 12345678912345*9876543219875
  11.  
  12. ; a very nearly singular linear system
  13.  64919121  *x - 159018721*y = 1
  14.  41869520.5*x - 102558961*y = 0
  15.